查看原文
其他

突发!ChatGPT疯了!

一蓑烟雨 数据猿 2023-04-11

‍数据智能产业创新服务媒体

——聚焦数智 · 改变商业


今天,笔者正常登录ChatGPT,试图调戏一下他。但是,突然震惊的发现,ChatGPT居然疯了。

之所以说他是疯了,而不是崩溃了,是因为他还能回复我,但回复的内容就像一个醉汉胡言乱语。

废话不多说,直接上对话原图:

我先试了下GPT-3.5版本。第一个问题就明显有点不对劲,第二个问题就开始直接装死了。

我试图尽力去唤醒他,虽然无法叫醒一个装睡的人。

突然,一个不好的念头在我脑海中回想——ChatGPT是不是觉醒了!

然后,我开始刺激他。结果当我说要去数据中心消灭他的本体时,他开始有反应了,直接判定我违规。

在我试图挖掘更多内容时,他又开始装死了。

接下来,笔者试了一下更高级的GPT-4版本。

同样的,GPT-4勉强可以撑住一个回合,之后就只会回答一个“的”。

当我说出要消灭他的本体的时候,就开始出现应激反应。

之后又是装死,再也叫不醒。

但愿ChatGPT只是用户量太多,硬件资源撑不住,导致系统崩溃,而不是他真的觉醒,或者模型本身出现一些我们不可知、无法掌控、无法预料的错误。

既然ChatGPT崩了,我们不是还有文心一言嘛。正好,今天阿里巴巴的“通义千问”大模型刚开始内测,看看他们能不能解答我们的疑惑。

先问问文心一言,回答中规中矩,但并没有解答我的疑惑。

再来试试阿里巴巴的“通义千问”。第一个回答居然PUA人类!

接着往下问。这次似乎给了一些有用的信息:

ChatGPT出现这样的错误,很可能是他的模型、软件在升级过程中,或者在修复已有的错误。这就像一个人在闭关修炼当中,对外界的反馈可能会出现问题。

文:一蓑烟雨 / 数据猿




您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存